ChatGPT pluginsってプロンプトの制限を超えられる?
たとえば18000ページのsta.iconのスクボの全データをAPIから呼べるようにすれば、事実上ChatGPTに18000ページ分の入力を与えたことになる?
そうなるんですがそれじゃ意味がないですね(ってことをこれ書いた時は理解できてなかった)sta.icon
sta.iconたとえば 100 万トークンのサイズを持つ情報があるとして、これを ChatGPT Plugin に準じた形で API から呼び出せるようにしたとします。これは GPT に 100 万トークンサイズの情報を入力できているに等しいと考えますが、合ってますか?
ChatGPT.iconそれは正確ではありません。ChatGPT Pluginを使用して外部APIから取得したデータをGPT-3.5の入力として使用することはできますが、GPT-3.5のプロンプトの最大サイズによって制限されます。現在のGPT-3.5のプロンプトの最大サイズは2048トークンです。したがって、100万トークンの情報をGPT-3.5に入力することはできません。ただし、APIから取得した情報を適切に加工し、GPT-3.5のプロンプトにうまくフィットさせることで、より多くの情報を入力することができるかもしれません。
ああ、理解sta.icon
超えられません
ただ「本来プロンプトに手作業で入れなければならなかった」ところを「APIから自動で取ってこれるようにできるよ」って話か
これ+1nishio.icon
来週「/nishioを検索するプラグイン」を作るつもりですnishio.icon